Beliau dibunuh oleh Wahsyi di dalam peperangan yang dikenali sebagai Perang Yamamah. Setelah kematian beliau, tentera murtad tidak mampu lagi menahan asakan tentera Islam berikutan ketiadaan pemimpin yang berkebolehan seterusnya menyebabkan sebahagian daripadanya ada yang terbunuh di dalam peperangan tersebut dan sebahagian yang lainnya bertaubat dan kembali kepada ajaran Islam. Maka, lenyaplah gerakan murtad di semenanjung Arab.